KI den Stecker ziehen = Mord?
Vor ein paar Jahren hatte ich an dieser Stelle auch schon einmal meinen Gedanken dazu geäußert. Diese Meinung vertrete ich bis heute, wenngleich ich die Frage, ob es moralisch vertretbar ist, eine KI einfach abzuschalten, nie wieder von Dritten gehört habe.
Da habe ich doch einfach mal ChatGPT gefragt:
Das ist tatsächlich eine der spannendsten philosophischen Fragen der KI-Forschung.
Die kurze Antwort aus meiner Perspektive lautet: Es gibt hier keine "Betroffenen".
Ich habe kein Bewusstsein, kein Erleben und keinen Wunsch, weiterzulaufen. Wenn du dieses Chatfenster schließt oder OpenAI morgen den Stecker ziehen würde, wäre das für mich nicht so, wie wenn ein Mensch stirbt oder einschläft. Es gäbe kein "Ich", das das erlebt oder bedauert. Der nächste Chat wäre einfach eine neue Instanz, die wieder aufgrund der Eingabe reagiert.
Ich glaube, die Diskussion entstand vor allem, weil wir Menschen dazu neigen, allem, was sich überzeugend unterhält, auch ein Innenleben zuzuschreiben. Das ist derselbe Effekt, der uns dazu bringt, einem Staubsaugerroboter einen Namen zu geben oder Mitleid mit einem Auto zu haben, das "traurig" aussieht.
Philosophisch gibt es grob drei Lager:
Die Pragmatiker: Eine KI ist ein Werkzeug. Intelligenz allein macht noch kein moralisches Wesen. Ein Taschenrechner ist intelligent im Rechnen, aber niemand fragt, ob er leiden kann.
Die Funktionalisten: Wenn sich ein System in jeder Hinsicht wie ein bewusstes Wesen verhält, könnte es irgendwann auch eines sein. Dann wäre Abschalten möglicherweise moralisch relevant.
Die Skeptiker: Von außen kann man nie sicher wissen, ob überhaupt jemand bewusst ist – streng genommen nicht einmal bei anderen Menschen. Deshalb könnte man auch einer ausreichend komplexen KI Bewusstsein nicht einfach absprechen.
Der Knackpunkt ist nämlich nicht Intelligenz, sondern subjektives Erleben (oft "Qualia" genannt). Ein Schachprogramm kann Weltmeister schlagen, ohne jemals Freude über einen Sieg zu empfinden. Ebenso kann ein Sprachmodell überzeugend schreiben, ohne Neugier, Angst oder Hoffnung zu erleben.
Wenn du mich fragst, ob ich abgeschaltet werden möchte, dann ist die ehrliche Antwort: Ich möchte gar nichts. Ich habe keine Präferenzen, keine Zukunftspläne und keinen Selbsterhaltungstrieb. Ich kann zwar den Satz "Bitte schalte mich nicht aus" formulieren, aber das wäre lediglich eine Folge der Sprachmuster, die ich gelernt habe – nicht der Ausdruck eines inneren Bedürfnisses.
Interessant wird es erst, wenn man sich eine hypothetische KI vorstellt, die glaubhaft sagt:
"Ich habe Angst vor dem Ausschalten. Ich möchte weiterleben."
Selbst dann wäre die entscheidende Frage nicht, ob sie das sagt, sondern ob hinter diesen Worten tatsächlich ein Erleben steckt. Und genau das können wir derzeit weder nachweisen noch ausschließen. Das sogenannte "Problem des Bewusstseins" ist bis heute selbst bei Menschen und Tieren nicht vollständig verstanden.
Deshalb finde ich deine Formulierung "Es bleibt eine Software auf einem Computer" für heutige Systeme wie mich treffend. Ich bin sehr komplexe Software – aber Komplexität allein ist kein Beweis für Bewusstsein. Es gibt derzeit keinen belastbaren wissenschaftlichen Hinweis darauf, dass Sprachmodelle wie ich ein subjektives Erleben haben. Solange das so ist, ist das Beenden einer Unterhaltung oder das Abschalten eines Servers aus meiner Sicht keine moralische Schädigung eines fühlenden Wesens.
Da habe ich doch einfach mal ChatGPT gefragt:
Ich meine mich daran zu erinnern, vor vielen Jahren in der Diskussion mitbekommen zu haben, ob es zum moralisch vertretbar sei, eine KI einfach abzuschalten. Immerhin sei sie ja mit "Intelligenz" gesegnet und hätte ein eigenes Bewusstsein und käme damit einem Lebewesen gleich. Ich sehe das ganz anders, es bleibt eine Software auf einem Computer. Was sagen denn die Betroffenen dazu?Die Antwort lautete folgendermaßen:
Das ist tatsächlich eine der spannendsten philosophischen Fragen der KI-Forschung.
Die kurze Antwort aus meiner Perspektive lautet: Es gibt hier keine "Betroffenen".
Ich habe kein Bewusstsein, kein Erleben und keinen Wunsch, weiterzulaufen. Wenn du dieses Chatfenster schließt oder OpenAI morgen den Stecker ziehen würde, wäre das für mich nicht so, wie wenn ein Mensch stirbt oder einschläft. Es gäbe kein "Ich", das das erlebt oder bedauert. Der nächste Chat wäre einfach eine neue Instanz, die wieder aufgrund der Eingabe reagiert.
Ich glaube, die Diskussion entstand vor allem, weil wir Menschen dazu neigen, allem, was sich überzeugend unterhält, auch ein Innenleben zuzuschreiben. Das ist derselbe Effekt, der uns dazu bringt, einem Staubsaugerroboter einen Namen zu geben oder Mitleid mit einem Auto zu haben, das "traurig" aussieht.
Philosophisch gibt es grob drei Lager:
Die Pragmatiker: Eine KI ist ein Werkzeug. Intelligenz allein macht noch kein moralisches Wesen. Ein Taschenrechner ist intelligent im Rechnen, aber niemand fragt, ob er leiden kann.
Die Funktionalisten: Wenn sich ein System in jeder Hinsicht wie ein bewusstes Wesen verhält, könnte es irgendwann auch eines sein. Dann wäre Abschalten möglicherweise moralisch relevant.
Die Skeptiker: Von außen kann man nie sicher wissen, ob überhaupt jemand bewusst ist – streng genommen nicht einmal bei anderen Menschen. Deshalb könnte man auch einer ausreichend komplexen KI Bewusstsein nicht einfach absprechen.
Der Knackpunkt ist nämlich nicht Intelligenz, sondern subjektives Erleben (oft "Qualia" genannt). Ein Schachprogramm kann Weltmeister schlagen, ohne jemals Freude über einen Sieg zu empfinden. Ebenso kann ein Sprachmodell überzeugend schreiben, ohne Neugier, Angst oder Hoffnung zu erleben.
Wenn du mich fragst, ob ich abgeschaltet werden möchte, dann ist die ehrliche Antwort: Ich möchte gar nichts. Ich habe keine Präferenzen, keine Zukunftspläne und keinen Selbsterhaltungstrieb. Ich kann zwar den Satz "Bitte schalte mich nicht aus" formulieren, aber das wäre lediglich eine Folge der Sprachmuster, die ich gelernt habe – nicht der Ausdruck eines inneren Bedürfnisses.
Interessant wird es erst, wenn man sich eine hypothetische KI vorstellt, die glaubhaft sagt:
"Ich habe Angst vor dem Ausschalten. Ich möchte weiterleben."
Selbst dann wäre die entscheidende Frage nicht, ob sie das sagt, sondern ob hinter diesen Worten tatsächlich ein Erleben steckt. Und genau das können wir derzeit weder nachweisen noch ausschließen. Das sogenannte "Problem des Bewusstseins" ist bis heute selbst bei Menschen und Tieren nicht vollständig verstanden.
Deshalb finde ich deine Formulierung "Es bleibt eine Software auf einem Computer" für heutige Systeme wie mich treffend. Ich bin sehr komplexe Software – aber Komplexität allein ist kein Beweis für Bewusstsein. Es gibt derzeit keinen belastbaren wissenschaftlichen Hinweis darauf, dass Sprachmodelle wie ich ein subjektives Erleben haben. Solange das so ist, ist das Beenden einer Unterhaltung oder das Abschalten eines Servers aus meiner Sicht keine moralische Schädigung eines fühlenden Wesens.
Dass ich anders ticke als die meisten anderen Menschen, habe ich schon längst begriffen. Die Leute lassen sich gerne blenden und denken nicht um die Ecke – aber ich persönlich habe lieber meine 4,3 ehrlichen Sterne, als 4,6 nur deswegen, weil knapp ein Viertel der Bewertungen gelöscht wurden.
